sse2-float: use babl_linear_to_gamma_2_2f() (instead of double)
authorEll <ell_se@yahoo.com>
Thu, 11 Jan 2018 14:22:46 +0000 (09:22 -0500)
committerEll <ell_se@yahoo.com>
Thu, 11 Jan 2018 14:26:03 +0000 (09:26 -0500)
Use the single-precision babl_linear_to_gamma_2_2f() function,
instead of the double-precision version, when converting "leftover"
samples, so that the result is consistent with the vectorized
samples.

extensions/sse2-float.c

index 41a00b2d587314432d1cf1c7329e4c04a9c22755..bb9f72e191a43e4c11cf4b59040a29f5e12dc1ba 100644 (file)
@@ -432,7 +432,7 @@ conv_yaF_linear_yaF_gamma (const Babl *conversion,const float *src, float *dst,
 
   while (samples--)
     {
-      *dst++ = babl_linear_to_gamma_2_2 (*src++);
+      *dst++ = babl_linear_to_gamma_2_2f (*src++);
       *dst++ = *src++;
     }
 }
@@ -503,7 +503,7 @@ conv_yF_linear_yF_gamma (const Babl *conversion,const float *src, float *dst, lo
 
   while (samples--)
     {
-      *dst++ = babl_linear_to_gamma_2_2 (*src++);
+      *dst++ = babl_linear_to_gamma_2_2f (*src++);
     }
 }